Apabila kuasa pentadbiran negara diserahkan kepada wazir al-Mushafi, Jeneral Ghalib telah dilantik sebagai panglima tentera. Beliau telah ditugaskan untuk mematahkan serangan orang-orang Norman (966 M., 971 M.) serta berperang dengan kerajaan Zirid dan Fatimiyah di utara Afrika. Tentera kerajaan Fatimiyah telah ditewaskan pada 974 M. dan Al-Hakam II berjaya mengukuhkan pengaruh Khilafah ke atas wilayah-wilayah Kristian iaitu Navarre, Castile serta Leon.